Aluno: Felipe Martim Fernandes Vieira

1 Introdução

O objetivo desse trabalho é fazer a análise exploratória de uma base de dados de vinhos de uma região de Portugal, e construir modelos utilizando as técnicas aprendidas em sala de aula. As diferentes etapas do trabalho seguem abaixo:

  1. Estimar a variável “quality” em função das características físico-químicas dos vinhos através da construção dos modelos preditivos listados.
    • Regressão Linear
    • Árvore de Regressão
  2. Categorização dos vinhos em “bons” ou “ruins”, sendo que os vinhos com notas maiores ou iguais a 6 serão considerados de boa qualidade.
    • Regressão Logística
    • Árvore de Decisão
  3. Definir grupos de vinhos utilizando métodos de clusterização
    • Hierárquica
    • K-Means
    • Análise de Componentes Principais

2 Preparações

2.1 Carregando as bibliotecas necessárias

library(dplyr)
library(corrgram)
library('GGally')
library(plotly)
library(caret)
library(e1071)
library(lmtest)
library(DAAG)
library(rpart)
library(rpart.plot)
library(rattle)
library(tclust)
library(cluster)
library(fpc)
library(ROCR)
Loading required package: gplots

Attaching package: ‘gplots’

The following object is masked from ‘package:stats’:

    lowess

2.2 Funções auxiliares

2.2.1 Multiplot

# Multiple plot function
#
# ggplot objects can be passed in ..., or to plotlist (as a list of ggplot objects)
# - cols:   Number of columns in layout
# - layout: A matrix specifying the layout. If present, 'cols' is ignored.
#
# If the layout is something like matrix(c(1,2,3,3), nrow=2, byrow=TRUE),
# then plot 1 will go in the upper left, 2 will go in the upper right, and
# 3 will go all the way across the bottom.
#
multiplot <- function(..., plotlist=NULL, file, cols=1, layout=NULL) {
  library(grid)
  
  # Make a list from the ... arguments and plotlist
  plots <- c(list(...), plotlist)
  
  numPlots = length(plots)
  
  # If layout is NULL, then use 'cols' to determine layout
  if (is.null(layout)) {
    # Make the panel
    # ncol: Number of columns of plots
    # nrow: Number of rows needed, calculated from # of cols
    layout <- matrix(seq(1, cols * ceiling(numPlots/cols)),
                     ncol = cols, nrow = ceiling(numPlots/cols))
  }
  
  if (numPlots==1) {
    print(plots[[1]])
    
  } else {
    # Set up the page
    grid.newpage()
    pushViewport(viewport(layout = grid.layout(nrow(layout), ncol(layout))))
    
    # Make each plot, in the correct location
    for (i in 1:numPlots) {
      # Get the i,j matrix positions of the regions that contain this subplot
      matchidx <- as.data.frame(which(layout == i, arr.ind = TRUE))
      
      print(plots[[i]], vp = viewport(layout.pos.row = matchidx$row,
                                      layout.pos.col = matchidx$col))
    }
  }
}

2.3 Carregando os dados

setwd('~/workspace/fiap/wine')

wines <- read.csv2(file="BaseWine_Red_e_White.csv"
                   , header=TRUE
                   , sep=";")

3 Visão geral dos dados

str(wines)
'data.frame':   6497 obs. of  14 variables:
 $ id_vinho          : int  1 2 3 4 5 6 7 8 9 10 ...
 $ fixedacidity      : num  6.6 6.7 10.6 5.4 6.7 6.8 6.6 7.2 5.1 6.2 ...
 $ volatileacidity   : num  0.24 0.34 0.31 0.18 0.3 0.5 0.61 0.66 0.26 0.22 ...
 $ citricacid        : num  0.35 0.43 0.49 0.24 0.44 0.11 0 0.33 0.33 0.2 ...
 $ residualsugar     : num  7.7 1.6 2.2 4.8 18.8 ...
 $ chlorides         : num  0.031 0.041 0.063 0.041 0.057 0.075 0.069 0.068 0.027 0.035 ...
 $ freesulfurdioxide : num  36 29 18 30 65 16 4 34 46 58 ...
 $ totalsulfurdioxide: num  135 114 40 113 224 49 8 102 113 184 ...
 $ density           : num  0.994 0.99 0.998 0.994 1 ...
 $ pH                : num  3.19 3.23 3.14 3.42 3.11 3.36 3.33 3.27 3.35 3.11 ...
 $ sulphates         : num  0.37 0.44 0.51 0.4 0.53 0.79 0.37 0.78 0.43 0.53 ...
 $ alcohol           : num  10.5 12.6 9.8 9.4 9.1 9.5 10.4 12.8 11.4 9 ...
 $ quality           : int  5 6 6 6 5 5 4 6 7 6 ...
 $ Vinho             : Factor w/ 2 levels "RED","WHITE": 2 2 1 2 2 1 1 1 2 2 ...
summary(wines)
    id_vinho     fixedacidity    volatileacidity    citricacid     residualsugar     chlorides       freesulfurdioxide
 Min.   :   1   Min.   : 3.800   Min.   :0.0800   Min.   :0.0000   Min.   : 0.60   Min.   :0.00900   Min.   :  1.00   
 1st Qu.:1625   1st Qu.: 6.400   1st Qu.:0.2300   1st Qu.:0.2500   1st Qu.: 1.80   1st Qu.:0.03800   1st Qu.: 17.00   
 Median :3249   Median : 7.000   Median :0.2900   Median :0.3100   Median : 3.00   Median :0.04700   Median : 29.00   
 Mean   :3249   Mean   : 7.215   Mean   :0.3397   Mean   :0.3186   Mean   : 5.44   Mean   :0.05603   Mean   : 30.53   
 3rd Qu.:4873   3rd Qu.: 7.700   3rd Qu.:0.4000   3rd Qu.:0.3900   3rd Qu.: 8.10   3rd Qu.:0.06500   3rd Qu.: 41.00   
 Max.   :6497   Max.   :15.900   Max.   :1.5800   Max.   :1.6600   Max.   :45.80   Max.   :0.61100   Max.   :289.00   
 totalsulfurdioxide    density             pH          sulphates         alcohol           quality        Vinho     
 Min.   :  6.0      Min.   :0.9871   Min.   :2.720   Min.   :0.2200   Min.   : 0.9567   Min.   :3.000   RED  :1599  
 1st Qu.: 77.0      1st Qu.:0.9923   1st Qu.:3.110   1st Qu.:0.4300   1st Qu.: 9.5000   1st Qu.:5.000   WHITE:4898  
 Median :118.0      Median :0.9949   Median :3.210   Median :0.5100   Median :10.3000   Median :6.000               
 Mean   :115.7      Mean   :0.9947   Mean   :3.219   Mean   :0.5313   Mean   :10.4862   Mean   :5.818               
 3rd Qu.:156.0      3rd Qu.:0.9970   3rd Qu.:3.320   3rd Qu.:0.6000   3rd Qu.:11.3000   3rd Qu.:6.000               
 Max.   :440.0      Max.   :1.0140   Max.   :4.010   Max.   :2.0000   Max.   :14.9000   Max.   :9.000               

Verificando se há valores faltantes

sum(is.na(wines))
[1] 0

3.1 Renomeando e removendo variáveis

A variável id_vinho não é necessária para a nossa análise e será removida. Para manter a consistência na nomenclatura, renomeei Vinho para type.

wines_adjusted <- wines %>% select(-id_vinho) %>% rename(type = Vinho)

4 Visualizando as características individualmente

p1 <- wines_adjusted %>% ggplot(aes(x = chlorides)) + 
  geom_histogram(bins = 40, fill = 'lightblue')

p2 <- wines_adjusted %>% ggplot(aes(x = sulphates)) + 
  geom_histogram(bins = 40, fill = 'lightblue') 

p3 <- wines_adjusted %>% ggplot(aes(x = fixedacidity)) + 
  geom_histogram(bins = 40, fill = 'lightblue') 

p4 <- wines_adjusted %>% ggplot(aes(x = freesulfurdioxide)) + 
  geom_histogram(bins = 40, fill = 'lightblue') 

p5 <- wines_adjusted %>% ggplot(aes(x = alcohol)) + 
  geom_histogram(bins = 40, fill = 'lightblue') 

p6 <- wines_adjusted %>% ggplot(aes(x = volatileacidity)) + 
  geom_histogram(bins = 40, fill = 'lightblue') 

p7 <- wines_adjusted %>% ggplot(aes(x = totalsulfurdioxide)) + 
  geom_histogram(bins = 40, fill = 'lightblue') 

p8 <- wines_adjusted %>% ggplot(aes(x = citricacid)) + 
  geom_histogram(bins = 40, fill = 'lightblue') 

p9 <- wines_adjusted %>% ggplot(aes(x = density)) + 
  geom_histogram(bins = 40, fill = 'lightblue') 

p10 <- wines_adjusted %>% ggplot(aes(x = pH)) + 
  geom_histogram(bins = 40, fill = 'lightblue') 

p11 <- wines_adjusted %>% ggplot(aes(x = residualsugar)) + 
  geom_histogram(bins = 40, fill = 'lightblue') 

p12 <- wines_adjusted %>% ggplot(aes(x = quality)) + 
  geom_histogram(bins = 6, fill = 'lightblue') 

multiplot(p1, p2, p3, p4, p5, p6, p7, p8, p9, p10, p11, p12, cols = 3 )

5 Verificando a presença de outliers

Ao visualizar os boxplots abaixo, é possível verificar que existem inúmeros outliers, que provavelmente serão removidos para a modelagem.

par (mfrow=c(2,2))
boxplot(wines_adjusted$chlorides, main='chlorides')
boxplot(wines_adjusted$sulphates, main='sulphates')
boxplot(wines_adjusted$fixedacidity, main='fixedacidity')
boxplot(wines_adjusted$residualsugar, main='residualsugar')

boxplot(wines_adjusted$freesulfurdioxide, main='freesulfurdioxide')
boxplot(wines_adjusted$alcohol, main='alcohol')
boxplot(wines_adjusted$volatileacidity, main='volatileacidity')
boxplot(wines_adjusted$totalsulfurdioxide, main='totalsulfurdioxide')

boxplot(wines_adjusted$quality, main='quality')
boxplot(wines_adjusted$citricacid, main='citricacid')
boxplot(wines_adjusted$density, main='density')
boxplot(wines_adjusted$pH, main='pH')
par (mfrow=c(1,1))

5.1 Padronizando as variáveis

wines_padr <- preProcess(wines_adjusted[,1:11], c("center", "scale")) %>% 
  predict(., wines_adjusted) %>% 
  data.frame(trans = .)

colnames(wines_padr) <- colnames(wines_adjusted)

str(wines_padr)
'data.frame':   6497 obs. of  14 variables:
 $ fixedacidity      : num  -0.475 -0.397 2.611 -1.4 -0.397 ...
 $ volatileacidity   : num  -0.60537 0.00203 -0.18019 -0.96981 -0.24093 ...
 $ citricacid        : num  0.216 0.766 1.179 -0.541 0.835 ...
 $ residualsugar     : num  0.478 -0.813 -0.686 -0.135 2.817 ...
 $ chlorides         : num  -0.7146 -0.4291 0.1988 -0.4291 0.0276 ...
 $ freesulfurdioxide : num  0.3084 -0.0859 -0.7057 -0.0296 1.9423 ...
 $ totalsulfurdioxide: num  0.3407 -0.0309 -1.3401 -0.0486 1.9153 ...
 $ density           : num  -0.3019 -1.5394 0.983 -0.0821 1.6457 ...
 $ pH                : num  -0.1773 0.0715 -0.4882 1.2532 -0.6748 ...
 $ sulphates         : num  -1.08375 -0.61334 -0.14293 -0.88214 -0.00852 ...
 $ alcohol           : num  0.0114 1.739 -0.5645 -0.8936 -1.1404 ...
 $ quality           : int  5 6 6 6 5 5 4 6 7 6 ...
 $ type              : Factor w/ 2 levels "RED","WHITE": 2 2 1 2 2 1 1 1 2 2 ...
 $ good              : Factor w/ 2 levels "0","1": 1 2 2 2 1 1 1 2 2 2 ...
summary(wines_padr)
  fixedacidity     volatileacidity     citricacid       residualsugar       chlorides       freesulfurdioxide 
 Min.   :-2.6344   Min.   :-1.5772   Min.   :-2.19266   Min.   :-1.0243   Min.   :-1.3425   Min.   :-1.66345  
 1st Qu.:-0.6289   1st Qu.:-0.6661   1st Qu.:-0.47230   1st Qu.:-0.7704   1st Qu.:-0.5148   1st Qu.:-0.76202  
 Median :-0.1661   Median :-0.3017   Median :-0.05941   Median :-0.5164   Median :-0.2579   Median :-0.08594  
 Mean   : 0.0000   Mean   : 0.0000   Mean   : 0.00000   Mean   : 0.0000   Mean   : 0.0000   Mean   : 0.00000  
 3rd Qu.: 0.3739   3rd Qu.: 0.3665   3rd Qu.: 0.49111   3rd Qu.: 0.5629   3rd Qu.: 0.2559   3rd Qu.: 0.59014  
 Max.   : 6.6989   Max.   : 7.5338   Max.   : 9.23057   Max.   : 8.5416   Max.   :15.8410   Max.   :14.56245  
 totalsulfurdioxide    density               pH             sulphates          alcohol           quality     
 Min.   :-1.9416    Min.   :-2.56383   Min.   :-3.10038   Min.   :-2.0918   Min.   :-7.8396   Min.   :3.000  
 1st Qu.:-0.6855    1st Qu.:-0.79551   1st Qu.:-0.67481   1st Qu.:-0.6805   1st Qu.:-0.8113   1st Qu.:5.000  
 Median : 0.0399    Median : 0.06668   Median :-0.05287   Median :-0.1429   Median :-0.1532   Median :6.000  
 Mean   : 0.0000    Mean   : 0.00000   Mean   : 0.00000   Mean   : 0.0000   Mean   : 0.0000   Mean   :5.818  
 3rd Qu.: 0.7122    3rd Qu.: 0.77672   3rd Qu.: 0.63126   3rd Qu.: 0.4619   3rd Qu.: 0.6695   3rd Qu.:6.000  
 Max.   : 5.7368    Max.   : 6.52124   Max.   : 4.92265   Max.   : 9.8701   Max.   : 3.6311   Max.   :9.000  
    type      good    
 RED  :1599   0:2384  
 WHITE:4898   1:4113  
                      
                      
                      
                      

5.2 Remoção dos outliers

Para a remoção dos outliers, foi utilizado o método Z-Score. Os valores com mais de 3 desvios padrões foram removidos.

wines_padr <- wines_padr[!abs(wines_padr$chlorides) > 3,] %>%
              .[!abs(.$sulphates) > 3,] %>%
              .[!abs(.$fixedacidity) > 3,] %>%
              .[!abs(.$residualsugar) > 3,] %>%
              .[!abs(.$freesulfurdioxide) > 3,] %>%
              .[!abs(.$alcohol) > 3,] %>%
              .[!abs(.$volatileacidity) > 3,] %>%
              .[!abs(.$totalsulfurdioxide) > 3,] %>%
              .[!abs(.$citricacid) > 3,] %>%
              .[!abs(.$density) > 3,] %>%
              .[!abs(.$pH) > 3,]

str(wines_padr)
'data.frame':   6007 obs. of  13 variables:
 $ fixedacidity      : num  -0.475 -0.397 2.611 -1.4 -0.397 ...
 $ volatileacidity   : num  -0.60537 0.00203 -0.18019 -0.96981 -0.24093 ...
 $ citricacid        : num  0.216 0.766 1.179 -0.541 0.835 ...
 $ residualsugar     : num  0.478 -0.813 -0.686 -0.135 2.817 ...
 $ chlorides         : num  -0.7146 -0.4291 0.1988 -0.4291 0.0276 ...
 $ freesulfurdioxide : num  0.3084 -0.0859 -0.7057 -0.0296 1.9423 ...
 $ totalsulfurdioxide: num  0.3407 -0.0309 -1.3401 -0.0486 1.9153 ...
 $ density           : num  -0.3019 -1.5394 0.983 -0.0821 1.6457 ...
 $ pH                : num  -0.1773 0.0715 -0.4882 1.2532 -0.6748 ...
 $ sulphates         : num  -1.08375 -0.61334 -0.14293 -0.88214 -0.00852 ...
 $ alcohol           : num  0.0114 1.739 -0.5645 -0.8936 -1.1404 ...
 $ quality           : int  5 6 6 6 5 5 4 6 7 5 ...
 $ type              : Factor w/ 2 levels "RED","WHITE": 2 2 1 2 2 1 1 1 2 2 ...
summary(wines_padr)
  fixedacidity      volatileacidity      citricacid       residualsugar        chlorides        freesulfurdioxide  totalsulfurdioxide
 Min.   :-2.55725   Min.   :-1.57721   Min.   :-2.19266   Min.   :-1.02435   Min.   :-1.34254   Min.   :-1.66345   Min.   :-1.94163  
 1st Qu.:-0.62888   1st Qu.:-0.72685   1st Qu.:-0.47230   1st Qu.:-0.77039   1st Qu.:-0.54330   1st Qu.:-0.70568   1st Qu.:-0.56163  
 Median :-0.24321   Median :-0.30167   Median :-0.05941   Median :-0.47410   Median :-0.28641   Median :-0.08594   Median : 0.07529  
 Mean   :-0.09333   Mean   :-0.08095   Mean   :-0.03948   Mean   : 0.01329   Mean   :-0.12702   Mean   : 0.01057   Mean   : 0.04015  
 3rd Qu.: 0.29673   3rd Qu.: 0.30573   3rd Qu.: 0.42229   3rd Qu.: 0.58408   3rd Qu.: 0.08467   3rd Qu.: 0.64648   3rd Qu.: 0.71221  
 Max.   : 2.99645   Max.   : 2.97828   Max.   : 2.89962   Max.   : 2.97556   Max.   : 2.99616   Max.   : 2.95642   Max.   : 2.94144  
    density                pH               sulphates           alcohol           quality        type     
 Min.   :-2.563832   Min.   :-2.9759884   Min.   :-2.09177   Min.   :-2.0453   Min.   :3.00   RED  :1277  
 1st Qu.:-0.856366   1st Qu.:-0.6748102   1st Qu.:-0.68054   1st Qu.:-0.8113   1st Qu.:5.00   WHITE:4730  
 Median : 0.002439   Median :-0.0528702   Median :-0.21013   Median :-0.1532   Median :6.00               
 Mean   :-0.065188   Mean   :-0.0002015   Mean   :-0.08039   Mean   : 0.0185   Mean   :5.84               
 3rd Qu.: 0.712475   3rd Qu.: 0.6312639   3rd Qu.: 0.39469   3rd Qu.: 0.6695   3rd Qu.:6.00               
 Max.   : 2.673526   Max.   : 2.9946361   Max.   : 2.94835   Max.   : 2.9319   Max.   :9.00               

6 Interação entre variáveis

6.1 Correlações

wines_padr %>%
  select(-type) %>%
  ggcorr(method = c("pairwise","spearman"), label = FALSE, angle = -0, hjust = 0.2) +
  coord_flip()
Coordinate system already present. Adding new coordinate system, which will replace the existing one.

wines_adjusted %>%
  select(-citricacid, -totalsulfurdioxide) %>%
  ggpairs()

6.2 Gráficos de dispersão

p1 <- wines_padr %>% 
  ggplot(aes(x = density, y = alcohol, color = type)) +
   geom_point(alpha = 0.2, size = 2) +
   geom_smooth(method = 'lm')

p2 <- wines_padr %>% 
  ggplot(aes(x = density, y = fixedacidity, color = type)) +
   geom_point(alpha = 0.2, size = 2) +
   geom_smooth(method = 'lm')

p3 <- wines_padr %>% 
  ggplot(aes(x = volatileacidity, y = quality, color = type)) +
   geom_point(alpha = 0.2, size = 2) +
   geom_smooth(method = 'lm')

p4 <- wines_padr %>% 
  ggplot(aes(x = alcohol, y = quality, color = type)) +
   geom_point(alpha = 0.2, size = 2) +
   geom_smooth(method = 'lm')

p5 <- wines_padr %>% 
  ggplot(aes(x = residualsugar, y = alcohol, color = type)) +
   geom_point(alpha = 0.2, size = 2) +
   geom_smooth(method = 'lm')

p6 <- wines_padr %>% 
  ggplot(aes(x = density, y = chlorides, color = type)) +
   geom_point(alpha = 0.2, size = 2) +
   geom_smooth(method = 'lm')

multiplot(p1, p2, p3, p4, p5, p6, cols = 2 )

7 Separação dos dados de treino e teste

Utilizarei 80% dos dados para treino, e 20% para teste.

set.seed(32312)

train_ind <- floor(0.8 * nrow(wines_padr)) %>%
  sample(seq_len(nrow(wines_padr)), size = .)

train <- wines_padr[train_ind, ]
test <- wines_padr[-train_ind, ]

8 Etapa 1 - Estimativa da variável quality

8.1 Regressão linear

Testando a regressão linear com todas as variáveis.

8.1.1 Primeira tentativa de se gerar um modelo

lm_01 <- lm(quality ~ fixedacidity + volatileacidity
               + citricacid + residualsugar + chlorides
               + freesulfurdioxide + totalsulfurdioxide
               + density + pH + sulphates + alcohol + type, data=train)
summary(lm_01)

Call:
lm(formula = quality ~ fixedacidity + volatileacidity + citricacid + 
    residualsugar + chlorides + freesulfurdioxide + totalsulfurdioxide + 
    density + pH + sulphates + alcohol + type, data = train)

Residuals:
    Min      1Q  Median      3Q     Max 
-3.3562 -0.4791 -0.0462  0.4492  3.0019 

Coefficients:
                   Estimate Std. Error t value Pr(>|t|)    
(Intercept)         6.14330    0.05492 111.856  < 2e-16 ***
fixedacidity        0.16998    0.02777   6.121 1.00e-09 ***
volatileacidity    -0.22871    0.01724 -13.267  < 2e-16 ***
citricacid         -0.01724    0.01408  -1.224  0.22084    
residualsugar       0.35439    0.03726   9.510  < 2e-16 ***
chlorides          -0.02325    0.02737  -0.849  0.39566    
freesulfurdioxide   0.12012    0.01689   7.112 1.31e-12 ***
totalsulfurdioxide -0.06493    0.02159  -3.007  0.00265 ** 
density            -0.42574    0.06051  -7.036 2.25e-12 ***
pH                  0.11342    0.01820   6.232 5.01e-10 ***
sulphates           0.12198    0.01495   8.159 4.26e-16 ***
alcohol             0.22863    0.03046   7.506 7.23e-14 ***
typeWHITE          -0.42814    0.07238  -5.915 3.55e-09 ***
---
Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1

Residual standard error: 0.7247 on 4792 degrees of freedom
Multiple R-squared:  0.2961,    Adjusted R-squared:  0.2943 
F-statistic:   168 on 12 and 4792 DF,  p-value: < 2.2e-16

Pelos resultados acima, é possível concluir que o modelo linear é estatisticamente significante, devido o p-value ser inferior a 0,05. Entretanto há variáveis que não são significantes, e podem ser removidas.

8.1.2 Segunda tentativa de se gerar um modelo

Como vimos na seção anterior, vamos remover citricacid, chlorides e totalsulfurdioxide e criar um novo modelo. Como vimos durante a análise exploratória, há uma correlação muito forte entre totalsulfurdioxide e freesulfurdioxide. Por esse motivo, utilizaremos somente uma delas.

lm_02 <- lm(quality ~ fixedacidity + volatileacidity
               + residualsugar + freesulfurdioxide + density 
               + pH + sulphates + alcohol + type, data=train)
summary(lm_02)

Call:
lm(formula = quality ~ fixedacidity + volatileacidity + residualsugar + 
    freesulfurdioxide + density + pH + sulphates + alcohol + 
    type, data = train)

Residuals:
    Min      1Q  Median      3Q     Max 
-3.3258 -0.4823 -0.0465  0.4566  3.0180 

Coefficients:
                  Estimate Std. Error t value Pr(>|t|)    
(Intercept)        6.23068    0.04580 136.041  < 2e-16 ***
fixedacidity       0.17508    0.02706   6.470 1.08e-10 ***
volatileacidity   -0.23022    0.01597 -14.412  < 2e-16 ***
residualsugar      0.37796    0.03602  10.494  < 2e-16 ***
freesulfurdioxide  0.08877    0.01368   6.489 9.53e-11 ***
density           -0.47691    0.05796  -8.228 2.43e-16 ***
pH                 0.12157    0.01787   6.802 1.16e-11 ***
sulphates          0.11968    0.01492   8.024 1.28e-15 ***
alcohol            0.21846    0.03024   7.224 5.85e-13 ***
typeWHITE         -0.54185    0.05929  -9.138  < 2e-16 ***
---
Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1

Residual standard error: 0.7254 on 4795 degrees of freedom
Multiple R-squared:  0.2943,    Adjusted R-squared:  0.2929 
F-statistic: 222.1 on 9 and 4795 DF,  p-value: < 2.2e-16

Apesar de todas as variáveis independentes possuírem um baixo p-value, o nosso R-Squared se encontra um pouco baixo. Não descartarei necessariamente o modelo devido a um valor pequeno do R quadrado. Nesse caso é melhor verificar a acurácia da predição nos dados de teste.

8.1.3 Análise do modelo escolhido

8.1.3.1 MSE

qualityPredict <- predict(lm_02, test, interval = "prediction", level = 0.95)

mse <- mean((test$quality  - qualityPredict[,1])^2)
sqrt(mse)
[1] 0.7274402

8.1.3.2 Erro usando média

erro_usando_media <- mean((test$quality  - mean(test$quality))^2)
sqrt(erro_usando_media)
[1] 0.8691678

8.1.3.3 Correlação entre valores reais e preditos

actuals_preds <- data.frame(cbind(actuals=test$quality, predicteds=qualityPredict[,1]))
correlation_accuracy <- cor(actuals_preds)
correlation_accuracy
            actuals predicteds
actuals    1.000000   0.547456
predicteds 0.547456   1.000000

8.1.3.4 Min Max Accuracy

min_max_accuracy <- mean(apply(actuals_preds, 1, min) / apply(actuals_preds, 1, max))
min_max_accuracy
[1] 0.9109673

8.1.3.5 MAPE

mape <- mean(abs((actuals_preds$predicteds - actuals_preds$actuals))/actuals_preds$actuals)
mape
[1] 0.7221432

8.1.3.6 Gráfico Resíduo

É possível notar que os resíduos estão dispersos aleatoriamente em torno de zero, com variância constante.

lm_02 %>%
  resid() %>%
  plot(predict(lm_02), ., xlab = "Preditor linear", ylab = "Residuos")
abline(h = 0, lty = 2)


lm_02 %>%
  resid() %>%
  hist(main='Histograma dos resíduos')

8.1.3.7 Distribuição normal dos erros

qqnorm(residuals(lm_02), ylab="Resíduos",xlab="Quantis teóricos",main="")
qqline(residuals(lm_02))

8.1.3.8 Teste de Shapiro

shapiro.test(sample(residuals(lm_02), size = 4800)) 

    Shapiro-Wilk normality test

data:  sample(residuals(lm_02), size = 4800)
W = 0.99177, p-value = 4.439e-16

8.1.3.9 K-fold cross validation

suppressWarnings(CVlm(data=wines_padr,
    form.lm = quality ~ fixedacidity + volatileacidity
               + residualsugar + freesulfurdioxide + density 
               + pH + sulphates + alcohol + type, m=5, dots=TRUE, seed=29, legend.pos="topleft",  printit=FALSE));

8.2 Árvore de Regressão

Para comparar com a regressão linear, foi feito o modelo de árvore de regressão.

8.2.1 Modelo

regression_tree <- rpart (quality ~ fixedacidity + volatileacidity
               + citricacid + residualsugar + chlorides
               + freesulfurdioxide + totalsulfurdioxide
               + density + pH + sulphates + alcohol + type, data=train, 
               cp = 0.001, minsplit = 15, maxdepth=15)

rpart.plot(regression_tree, type=4, extra=1, under=FALSE, clip.right.labs=TRUE,
           fallen.leaves=FALSE,   digits=2, varlen=-10, faclen=20,
           cex=0.4, tweak=1.7,
           compress=TRUE,box.palette="Grays",
           snip=FALSE)

8.2.2 MSE

val_pred_regression_tree <- predict(regression_tree, test, interval = "prediction", level = 0.95) 

mse_tree <- mean((test$quality  - val_pred_regression_tree)^2)
sqrt(mse_tree)
[1] 0.7261796

8.2.3 Correlação entre valores reais e preditos

actuals_preds <- data.frame(cbind(actuals=test$quality, predicteds=val_pred_regression_tree))
correlation_accuracy <- cor(actuals_preds)
correlation_accuracy
             actuals predicteds
actuals    1.0000000  0.5740011
predicteds 0.5740011  1.0000000

8.2.4 Gráfico Resíduo

rs <- val_pred_regression_tree - test$quality 
plot(predict(regression_tree, test), rs, xlab = "Com Árvore de Regressão", ylab = "Residuos")
abline(h = 0, lty = 2)


hist(rs)

8.2.5 Distribuição dos erros aleatórios

qqnorm(rs, ylab="Resíduos",xlab="Quantis teóricos",main="")
qqline(rs)

8.3 Conclusão

Embora com resultados muito parecidos, a técnica de árvore de regressão teve uma acurácia um pouco maior. É possível que o decepcionante resultado das duas técnicas se deve ao tratamento dos vinhos tintos juntamente com os vinhos brancos. Como deu para perceber pela análise exploratória, os dois tipos de vinhos possuem algumas características físico-químicas com comportamentos diferentes.

9 Etapa 2 - Categorizando vinhos “bons” e “ruins”

9.1 Criação da variável resposta categórica

wines_padr$good <- as.factor(ifelse(wines_padr$quality >= 6,1,0))
summary(wines_padr$good)
   0    1 
2384 4113 
train <- wines_padr[train_ind, ]
test <- wines_padr[-train_ind, ]

9.2 Árvore de Decisão

9.2.1 Construção do modelo

decision_tree <- rpart (train$good ~ fixedacidity + volatileacidity
                       + citricacid + residualsugar + chlorides
                       + freesulfurdioxide + totalsulfurdioxide
                       + density + pH + sulphates + alcohol + type, 
                       data = train)

fancyRpartPlot(decision_tree)

9.2.2 Avaliando o Modelo

9.2.2.1 Matriz de Confusão

decision_tree_predict <- predict(decision_tree, test, type='class')

confusion_matrix <- table(test$good, decision_tree_predict)
confusion_matrix
   decision_tree_predict
      0   1
  0 335 289
  1 165 903

9.2.2.2 Acurácia

diagonal <- diag(confusion_matrix)
Acc <-  sum(diagonal)/sum(confusion_matrix)
Acc
[1] 0.7512479

9.3 Regressão Logística

9.3.1 Primeiro Modelo

log_01 <- glm(train$good ~ fixedacidity + volatileacidity
               + citricacid + residualsugar + chlorides
               + freesulfurdioxide + totalsulfurdioxide
               + density + pH + sulphates + alcohol + type, train, family=binomial(link=logit))

summary(log_01)

Call:
glm(formula = train$good ~ fixedacidity + volatileacidity + citricacid + 
    residualsugar + chlorides + freesulfurdioxide + totalsulfurdioxide + 
    density + pH + sulphates + alcohol + type, family = binomial(link = logit), 
    data = train)

Deviance Residuals: 
    Min       1Q   Median       3Q      Max  
-2.7851  -0.9028   0.4281   0.8156   2.2976  

Coefficients:
                   Estimate Std. Error z value Pr(>|z|)    
(Intercept)         1.45734    0.19125   7.620 2.54e-14 ***
fixedacidity        0.26705    0.09188   2.906 0.003656 ** 
volatileacidity    -0.80868    0.06112 -13.232  < 2e-16 ***
citricacid         -0.13495    0.04561  -2.959 0.003085 ** 
residualsugar       0.72859    0.12319   5.914 3.34e-09 ***
chlorides          -0.03862    0.09021  -0.428 0.668548    
freesulfurdioxide   0.33884    0.05720   5.924 3.14e-09 ***
totalsulfurdioxide -0.29247    0.07133  -4.100 4.13e-05 ***
density            -0.70905    0.20046  -3.537 0.000404 ***
pH                  0.16099    0.06049   2.661 0.007780 ** 
sulphates           0.40595    0.05437   7.467 8.21e-14 ***
alcohol             0.88727    0.10395   8.536  < 2e-16 ***
typeWHITE          -0.93732    0.24913  -3.762 0.000168 ***
---
Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1

(Dispersion parameter for binomial family taken to be 1)

    Null deviance: 6266.8  on 4804  degrees of freedom
Residual deviance: 4912.8  on 4792  degrees of freedom
AIC: 4938.8

Number of Fisher Scoring iterations: 5

9.4 Segundo Modelo

O segundo modelo foi feito removendo as variáveis que possuíam um p-value muito elevado no primeiro modelo.

log_02 <- glm(train$good ~ fixedacidity + volatileacidity
               + citricacid + residualsugar
               + freesulfurdioxide + totalsulfurdioxide
               + density + pH + sulphates + alcohol + type, train, family=binomial(link=logit))

summary(log_02)

Call:
glm(formula = train$good ~ fixedacidity + volatileacidity + citricacid + 
    residualsugar + freesulfurdioxide + totalsulfurdioxide + 
    density + pH + sulphates + alcohol + type, family = binomial(link = logit), 
    data = train)

Deviance Residuals: 
    Min       1Q   Median       3Q      Max  
-2.7821  -0.9000   0.4288   0.8189   2.3022  

Coefficients:
                   Estimate Std. Error z value Pr(>|z|)    
(Intercept)         1.44283    0.18810   7.671 1.71e-14 ***
fixedacidity        0.27297    0.09083   3.005 0.002654 ** 
volatileacidity    -0.81038    0.06099 -13.288  < 2e-16 ***
citricacid         -0.13585    0.04555  -2.983 0.002858 ** 
residualsugar       0.74017    0.12018   6.159 7.34e-10 ***
freesulfurdioxide   0.33905    0.05719   5.928 3.06e-09 ***
totalsulfurdioxide -0.29319    0.07131  -4.112 3.93e-05 ***
density            -0.72686    0.19607  -3.707 0.000210 ***
pH                  0.16513    0.05971   2.766 0.005678 ** 
sulphates           0.40672    0.05434   7.485 7.14e-14 ***
alcohol             0.88616    0.10391   8.528  < 2e-16 ***
typeWHITE          -0.91343    0.24263  -3.765 0.000167 ***
---
Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1

(Dispersion parameter for binomial family taken to be 1)

    Null deviance: 6266.8  on 4804  degrees of freedom
Residual deviance: 4913.0  on 4793  degrees of freedom
AIC: 4937

Number of Fisher Scoring iterations: 5

9.4.1 Matriz de confusão

logistic_regression_predict <- predict(log_02, test, type="response") %>%
  cut(., breaks=c(0,0.50,1), right=F)

MC <- table(test$good,  logistic_regression_predict , deparse.level = 2) # montar a matriz de confusão  
show(MC)
         logistic_regression_predict
test$good [0,0.5) [0.5,1)
        0     257     181
        1     126     638

9.4.2 Acurácia

ACC = sum(diag(MC))/sum(MC) 
show(ACC)
[1] 0.7445923

9.4.3 Gráfico ROC

p <- predict(log_02, test, type="response")
pr <- prediction(p, test$good)
prf <- performance(pr, measure = "tpr", x.measure = "fpr")
plot(prf)


auc <- performance(pr, measure = "auc")
auc <- auc@y.values[[1]]
auc
[1] 0.8135444

9.5 Conclusão

As técnicas de árvore de decisão e regressão logística apresentaram resultados muito similares. Em contraste com a primeira etapa, os modelos para previsão de uma variável categórica de qualidade tiveram uma acurácia muito maior.

10 Etapa 3: Definir grupos de vinhos

wines_padr <- wines_padr %>% 
  select(-quality, -good, -type)

10.1 Determinação de quantidade clusters

wss <- (nrow(wines_padr)-1)*sum(apply(wines_padr,2,var))
for (i in 2:20) wss[i] <- sum(kmeans(wines_padr,
                                     centers=i)$withinss)
did not converge in 10 iterations
plot(1:20, wss, type="b", xlab="Número de clusters",
     ylab="Soma de quadrados intra-clusters") 

Analisando o gráfico acima, optei por dividir os vinhos em 6 grupos distintos.

10.2 Cluster Hierárquico

Identificando os grupos no Dendograma.

hier_cluster <- hclust(dist(wines_padr),method='ward.D2')
d <- dist(wines_padr, method = "euclidean")
plot(hier_cluster, ylab='distancia', cex=0.6)

groups <- cutree(hier_cluster, k=6) #Identificando os 6 diferentes grupos
rect.hclust(hier_cluster, k=6, border="red") 

10.3 K-Means

set.seed(1232)
output_cluster <- kmeans(wines_padr, 6, iter=100)
output_cluster
K-means clustering with 6 clusters of sizes 946, 1206, 1483, 1219, 646, 997

Cluster means:
  fixedacidity volatileacidity  citricacid residualsugar  chlorides freesulfurdioxide totalsulfurdioxide    density          pH
1   0.08473360       1.6866294 -1.26213820    -0.6317944  0.6817667        -0.7986723        -1.16915557  0.5037673  0.96129972
2  -0.52520677      -0.2668938 -0.02511597    -0.4822657 -0.5802020        -0.1213941        -0.16797325 -1.3589390 -0.04482517
3  -0.17028943      -0.3492428  0.31064945     1.4659004 -0.1443988         0.9372052         0.99798842  0.9223711 -0.49867076
4   0.09639664      -0.4497086  0.23995436    -0.2777307 -0.2107031        -0.2721956         0.07332153 -0.4284112 -0.72419807
5   2.00659014       0.5019104  0.95725823    -0.5616504  1.2624821        -0.8942313        -1.25067366  1.0021260 -0.06731150
6  -0.60981357      -0.5333900 -0.14775699    -0.2941430 -0.2906727         0.4228183         0.54878266 -0.3316950  0.81291779
    sulphates     alcohol
1  0.40065402 -0.24807743
2 -0.30296210  1.39885650
3 -0.27728431 -0.84938155
4 -0.50528600 -0.08757578
5  1.42050025  0.02119780
6  0.09615516 -0.09994560

Clustering vector:
   [1] 4 2 5 6 3 1 1 1 2 3 3 6 6 6 4 2 1 4 1 6 6 3 1 4 4 4 6 5 1 3 2 1 5 4 1 6 6 3 2 3 3 3 6 5 2 3 4 3 2 2 4 2 6 6 1 6 4 6 1 1 2 3
  [63] 4 4 1 2 4 5 2 3 6 4 3 1 4 5 5 6 2 3 2 2 5 5 5 1 2 3 1 2 5 6 2 2 3 2 3 4 2 2 1 4 2 4 6 1 4 2 4 6 3 4 4 4 4 3 2 4 6 2 4 6 5 3
 [125] 6 3 4 6 1 1 6 5 6 2 3 1 1 3 4 3 3 3 2 3 2 2 5 3 1 1 6 4 4 2 1 6 3 3 5 3 3 6 3 5 2 2 1 4 6 4 1 1 3 3 2 6 2 1 6 3 2 1 4 1 4 6
 [187] 3 6 1 3 4 1 3 2 5 2 6 3 2 3 4 2 3 6 3 6 3 6 5 3 1 2 6 5 5 6 3 2 4 3 3 3 4 4 3 1 1 4 2 3 1 2 4 3 1 4 3 1 5 3 5 1 1 3 2 6 6 6
 [249] 3 2 4 6 2 2 4 3 5 3 3 3 3 1 1 2 1 2 2 6 4 3 2 4 3 3 1 5 2 3 5 1 2 3 5 1 6 5 2 5 3 2 3 6 2 2 1 6 1 3 5 6 3 3 1 5 4 3 2 1 1 3
 [311] 4 1 5 1 2 3 1 4 1 1 4 6 6 3 6 2 4 1 1 3 5 4 3 3 5 1 4 3 5 3 2 5 4 3 6 6 1 5 4 2 2 4 4 6 4 4 3 2 6 6 4 2 3 2 6 1 2 3 2 4 3 4
 [373] 3 1 4 1 2 6 4 6 5 5 3 6 3 1 2 4 2 2 1 2 6 5 3 6 5 1 4 4 1 4 3 4 2 3 6 2 5 1 4 4 2 6 3 6 4 3 5 1 2 3 3 3 3 3 2 6 2 2 6 1 2 2
 [435] 4 1 3 4 2 2 3 4 3 3 3 3 1 6 1 1 6 4 4 4 6 3 3 2 4 4 2 3 1 6 6 4 2 6 4 2 2 2 2 4 3 4 6 3 6 2 4 5 2 2 6 6 3 2 4 3 4 4 2 4 2 1
 [497] 3 4 5 3 2 4 6 2 4 6 5 6 4 6 5 4 1 6 3 3 5 6 2 3 1 1 3 6 6 4 6 3 6 4 6 2 2 1 6 2 1 3 1 6 3 4 1 4 2 5 6 6 1 4 3 3 3 6 2 6 5 2
 [559] 5 6 4 2 3 3 6 2 3 6 2 5 4 4 6 2 4 4 3 3 3 2 6 5 2 4 3 3 5 2 1 3 4 1 1 3 1 2 3 3 2 3 4 3 3 3 5 1 1 1 1 4 3 4 4 4 5 3 2 1 6 5
 [621] 2 2 4 4 2 1 1 1 2 2 3 5 1 6 3 3 4 4 3 5 2 3 4 3 2 2 6 6 3 3 3 2 4 5 2 2 1 3 2 5 5 2 2 5 5 3 6 4 2 1 6 3 4 2 4 2 3 1 4 3 1 4
 [683] 5 3 3 2 1 4 3 4 1 1 2 2 1 2 3 3 3 3 2 5 4 2 1 2 4 3 2 1 6 1 2 4 3 4 3 4 2 6 3 3 6 3 3 6 6 4 6 4 4 1 2 6 3 3 6 2 5 5 3 4 2 4
 [745] 1 2 2 1 2 5 5 1 6 5 6 6 2 5 1 1 6 1 4 2 1 2 5 3 6 1 3 1 3 6 2 5 2 4 4 2 3 4 4 2 1 6 2 6 6 1 1 5 6 4 5 4 3 1 4 2 2 4 6 4 1 6
 [807] 3 1 1 4 4 3 3 5 3 6 5 4 6 6 1 1 5 1 6 4 3 1 2 4 4 6 3 3 4 4 4 3 4 4 4 1 3 6 3 3 3 6 2 5 5 6 4 3 4 2 4 2 3 1 2 2 2 5 6 4 1 6
 [869] 6 3 4 3 4 6 5 4 6 2 6 5 1 1 2 1 2 4 5 6 3 4 2 1 2 2 5 6 6 1 2 4 1 2 3 2 3 3 3 1 3 4 1 2 4 3 6 5 3 1 5 2 2 4 1 4 1 4 1 2 4 6
 [931] 6 1 3 2 2 6 5 3 6 4 5 1 4 5 1 6 1 1 6 6 2 2 2 6 4 2 1 2 3 2 2 2 3 3 5 6 3 6 5 5 3 5 2 1 1 2 6 4 2 2 2 4 5 3 3 6 6 2 6 1 6 1
 [993] 4 3 2 6 5 6 3 4
 [ reached getOption("max.print") -- omitted 5497 entries ]

Within cluster sum of squares by cluster:
[1] 5121.289 4905.915 7942.310 5922.045 7546.492 4797.123
 (between_SS / total_SS =  49.3 %)

Available components:

[1] "cluster"      "centers"      "totss"        "withinss"     "tot.withinss" "betweenss"    "size"         "iter"        
[9] "ifault"      
table(output_cluster$cluster)

   1    2    3    4    5    6 
 946 1206 1483 1219  646  997 

Visualizando o resultado de uma forma gráfica

plot(tkmeans(wines_padr , k = 6, alpha = 0.01))

10.4 PCA

Vamos tentar reduzir o número de variáveis e verificar o impacto que isso terá na clusterização.

acpcor_wines <- prcomp(wines_padr, scale = TRUE, retx = TRUE) 
summary(acpcor_wines)
Importance of components:
                          PC1    PC2    PC3     PC4     PC5     PC6     PC7     PC8    PC9    PC10    PC11
Standard deviation     1.7412 1.5791 1.2464 0.98545 0.84537 0.77894 0.72356 0.70943 0.5821 0.47810 0.18564
Proportion of Variance 0.2756 0.2267 0.1412 0.08828 0.06497 0.05516 0.04759 0.04575 0.0308 0.02078 0.00313
Cumulative Proportion  0.2756 0.5023 0.6435 0.73181 0.79678 0.85194 0.89953 0.94528 0.9761 0.99687 1.00000
plot(1:ncol(wines_padr), acpcor_wines$sdev^2, type = "b", xlab = "Componente",
     ylab = "Variância", pch = 20, cex.axis = 0.8, cex.lab = 0.8)

Pelas informações acima, é possível verificar que ao optar pelos 6 primeiros componentes, obtém-se 85% da variância dos dados.

escore1 <- acpcor_wines$x[, 1]
escore2 <- acpcor_wines$x[, 2]
escore3 <- acpcor_wines$x[, 3]
escore4 <- acpcor_wines$x[, 4]
escore5 <- acpcor_wines$x[, 5]
escore6 <- acpcor_wines$x[, 6]

wines_cpa <-cbind(escore1, escore2, escore3, escore4, escore5, escore6)

wss <- (nrow(wines_cpa)-1)*sum(apply(wines_cpa,2,var))
for (i in 2:20) wss[i] <- sum(kmeans(wines_cpa,
                                     centers=i)$withinss)
plot(1:20, wss, type="b", xlab="Number of Clusters",
     ylab="Within groups sum of squares") 

10.4.1 K-Means com PCA

set.seed(5425)
output_cluster_pca <- kmeans(wines_cpa, 6,iter=100)
output_cluster
K-means clustering with 6 clusters of sizes 1232, 930, 1422, 1128, 1130, 655

Cluster means:
     escore1    escore2    escore3     escore4     escore5     escore6
1 -0.5561151  0.2304678 -0.5060747  0.40461549 -0.07829805 -0.54193526
2  2.5395077 -0.1482698 -1.4627894 -0.38520916 -0.12219321  0.13766453
3 -1.9186941 -1.5728764 -0.4141836 -0.09042038  0.19038205  0.18280241
4 -0.3889762  0.7653344  1.1073630 -0.66952847 -0.24478532 -0.02662016
5 -0.1498876  2.1033691  0.2640424  0.39209807  0.03840748  0.24111008
6  2.5342180 -1.7549915  1.5654563  0.45876841  0.26274350  0.05689213

Clustering vector:
   [1] 1 5 6 1 3 2 2 2 5 3 3 1 1 1 4 5 2 4 2 1 1 3 2 1 4 4 1 6 2 3 5 2 6 1 2 1 1 3 4 3 3 3 1 6 5 3 4 3 4 4 4 5 1 1 2 5 4 1 2 2 5 3
  [63] 4 4 2 4 4 6 5 3 1 4 3 2 4 6 6 5 5 3 5 5 6 6 6 2 5 3 2 5 6 1 4 5 3 5 3 4 5 5 2 4 5 4 1 2 4 4 4 5 3 4 4 1 4 3 5 1 1 5 4 1 6 3
 [125] 1 3 1 1 2 2 1 6 1 5 3 2 2 3 4 3 3 3 5 3 4 5 6 3 2 2 1 4 4 5 2 1 3 3 6 3 3 1 3 6 5 4 2 4 1 4 2 2 3 3 5 1 4 2 1 3 4 2 1 2 4 1
 [187] 3 1 2 3 1 2 3 4 6 5 5 3 5 3 1 5 3 1 3 1 3 5 6 3 2 5 5 6 6 1 3 5 4 3 3 3 4 1 3 2 2 4 5 4 2 5 4 3 2 1 3 2 6 3 6 2 2 3 5 1 1 1
 [249] 3 5 4 1 5 5 4 3 6 3 4 3 3 2 2 5 2 5 5 5 4 3 5 4 3 3 2 6 4 3 6 2 5 3 6 2 1 6 5 6 3 4 3 1 5 5 2 1 2 3 6 1 3 3 2 6 1 3 5 2 2 3
 [311] 4 2 6 2 5 3 2 1 2 2 1 1 5 3 1 5 4 2 2 3 6 4 3 3 6 2 4 3 6 3 5 6 4 3 5 1 2 6 4 5 4 4 4 5 1 4 3 5 5 1 4 5 3 5 5 2 5 3 5 4 3 4
 [373] 3 2 1 2 5 5 4 1 6 6 3 1 3 2 5 4 5 5 2 4 1 6 3 1 6 2 4 1 2 4 3 4 5 3 1 5 6 2 4 4 5 1 3 5 4 3 6 2 5 3 3 3 1 3 5 1 5 5 1 2 5 5
 [435] 3 2 3 4 5 5 3 4 3 3 3 3 2 1 2 2 1 1 1 4 1 3 3 5 4 4 5 1 2 1 5 4 5 1 4 5 4 5 5 1 3 4 1 3 1 5 4 6 5 5 1 1 1 5 4 3 1 1 5 1 4 2
 [497] 3 4 6 3 5 4 1 5 4 1 6 1 1 1 6 1 2 1 3 3 2 5 5 3 2 2 3 1 1 4 1 1 5 1 1 4 5 2 1 4 2 3 2 1 3 4 2 1 5 6 1 1 2 4 1 3 3 1 5 1 6 4
 [559] 6 1 4 5 3 3 1 5 3 1 4 6 4 4 1 4 4 1 3 3 3 5 1 6 4 4 3 1 6 5 2 3 4 2 6 3 2 5 3 3 5 3 1 3 3 3 6 2 2 2 2 4 3 4 4 1 6 3 5 2 1 6
 [621] 4 5 3 4 5 2 5 2 5 5 3 6 2 1 3 3 4 1 3 6 5 3 4 3 5 5 1 1 3 3 3 5 4 6 4 5 2 1 4 6 6 4 5 6 6 1 1 4 4 2 1 3 4 4 4 5 3 2 4 4 2 1
 [683] 6 3 3 4 2 4 3 4 2 2 5 5 2 4 3 3 3 3 4 6 1 4 2 4 4 3 5 2 1 2 5 4 3 4 3 4 5 1 3 3 1 3 3 1 5 4 1 4 4 2 5 1 3 3 1 5 6 6 3 4 5 1
 [745] 2 5 4 2 5 6 6 2 1 6 5 1 4 6 2 2 1 2 1 5 2 5 6 1 1 2 3 2 3 1 5 6 5 4 3 5 3 4 1 4 2 1 5 1 1 2 2 6 1 4 6 4 1 2 1 5 5 4 1 4 2 5
 [807] 3 1 2 4 4 3 3 6 3 1 6 4 1 1 2 2 6 2 1 1 3 2 5 4 5 5 3 3 1 4 4 3 4 1 4 2 3 1 3 3 3 1 4 6 6 5 1 3 4 4 4 5 3 2 4 4 5 6 1 4 2 1
 [869] 1 3 4 3 1 1 6 1 1 5 2 6 2 2 5 2 4 4 6 1 3 4 4 4 5 5 6 1 1 2 5 4 2 4 3 5 3 3 3 2 3 1 2 5 4 1 1 6 3 2 6 4 5 4 2 4 2 1 2 5 4 1
 [931] 1 2 3 4 4 1 6 3 5 4 6 2 4 6 2 1 2 2 1 1 5 5 5 1 4 5 2 5 3 5 4 5 3 3 6 1 3 1 6 6 3 6 5 2 2 5 1 1 5 5 5 4 6 3 3 5 1 5 1 2 1 2
 [993] 1 3 4 1 6 1 3 4
 [ reached getOption("max.print") -- omitted 5497 entries ]

Within cluster sum of squares by cluster:
[1] 4526.465 3837.918 4984.047 3541.824 3502.742 5717.291
 (between_SS / total_SS =  57.1 %)

Available components:

[1] "cluster"      "centers"      "totss"        "withinss"     "tot.withinss" "betweenss"    "size"         "iter"        
[9] "ifault"      
table(output_cluster_pca$cluster)

   1    2    3    4    5    6 
1232  930 1422 1128 1130  655 
plot(tkmeans(wines_cpa , k = 6, alpha = 0.01))

10.4.2 Cruzando os clusters

Agora vou cruzar os resultados obtidos a partir das variáveis com os resultados obitos pelos componentes principais.

cruzamento <- data.frame(cbind(output_cluster$cluster, output_cluster_pca$cluster))
colnames(cruzamento) <- c("sem_pca", "com_pca")
cruzamento %>%
  mutate(sem_pca = as.factor(sem_pca), com_pca = as.factor(com_pca)) %>%
  ggplot(aes(sem_pca, com_pca)) +
  geom_count(colour = "blue") +
  theme(legend.position = "bottom")

O count plot acima indica que, apesar de haver mudança na forma como os vinhos foram classificados, em sua maioria os agrupamentos continuaram parecidos.

---
title: "Trabalho Final de Conceitos Estatísticos para IA"
output: 
  html_notebook:
    number_sections: true
---

Aluno: Felipe Martim Fernandes Vieira

# Introdução

O objetivo desse trabalho é fazer a análise exploratória de uma base de dados de vinhos de uma região de Portugal, e construir modelos utilizando as técnicas aprendidas em sala de aula. As diferentes etapas do trabalho seguem abaixo:

1. Estimar a variável "quality" em função das características físico-químicas dos vinhos através da construção dos modelos preditivos listados.
    + Regressão Linear
    + Árvore de Regressão
    
2. Categorização dos vinhos em "bons" ou "ruins", sendo que os vinhos com notas maiores ou iguais a 6 serão considerados de boa qualidade.
    + Regressão Logística
    + Árvore de Decisão
    
3. Definir grupos de vinhos utilizando métodos de _clusterização_
    + Hierárquica
    + K-Means
    + Análise de Componentes Principais
    

# Preparações

## Carregando as bibliotecas necessárias

```{r}
library(dplyr)
library(corrgram)
library('GGally')
library(plotly)
library(caret)
library(e1071)
library(lmtest)
library(DAAG)
library(rpart)
library(rpart.plot)
library(rattle)
library(tclust)
library(cluster)
library(fpc)
library(ROCR)
```


## Funções auxiliares

### Multiplot

```{r}
# Multiple plot function
#
# ggplot objects can be passed in ..., or to plotlist (as a list of ggplot objects)
# - cols:   Number of columns in layout
# - layout: A matrix specifying the layout. If present, 'cols' is ignored.
#
# If the layout is something like matrix(c(1,2,3,3), nrow=2, byrow=TRUE),
# then plot 1 will go in the upper left, 2 will go in the upper right, and
# 3 will go all the way across the bottom.
#
multiplot <- function(..., plotlist=NULL, file, cols=1, layout=NULL) {
  library(grid)
  
  # Make a list from the ... arguments and plotlist
  plots <- c(list(...), plotlist)
  
  numPlots = length(plots)
  
  # If layout is NULL, then use 'cols' to determine layout
  if (is.null(layout)) {
    # Make the panel
    # ncol: Number of columns of plots
    # nrow: Number of rows needed, calculated from # of cols
    layout <- matrix(seq(1, cols * ceiling(numPlots/cols)),
                     ncol = cols, nrow = ceiling(numPlots/cols))
  }
  
  if (numPlots==1) {
    print(plots[[1]])
    
  } else {
    # Set up the page
    grid.newpage()
    pushViewport(viewport(layout = grid.layout(nrow(layout), ncol(layout))))
    
    # Make each plot, in the correct location
    for (i in 1:numPlots) {
      # Get the i,j matrix positions of the regions that contain this subplot
      matchidx <- as.data.frame(which(layout == i, arr.ind = TRUE))
      
      print(plots[[i]], vp = viewport(layout.pos.row = matchidx$row,
                                      layout.pos.col = matchidx$col))
    }
  }
}
```

## Carregando os dados

```{r}
setwd('~/workspace/fiap/wine')

wines <- read.csv2(file="BaseWine_Red_e_White.csv"
                   , header=TRUE
                   , sep=";")

```

# Visão geral dos dados

```{r}
str(wines)
summary(wines)
```

Verificando se há valores faltantes

```{r}
sum(is.na(wines))
```

## Renomeando e removendo variáveis

A variável _id_vinho_ não é necessária para a nossa análise e será removida. Para manter a consistência na nomenclatura, renomeei _Vinho_ para _type_.

```{r}
wines_adjusted <- wines %>% select(-id_vinho) %>% rename(type = Vinho)
```

# Visualizando as características individualmente


```{r}
p1 <- wines_adjusted %>% ggplot(aes(x = chlorides)) + 
  geom_histogram(bins = 40, fill = 'lightblue')

p2 <- wines_adjusted %>% ggplot(aes(x = sulphates)) + 
  geom_histogram(bins = 40, fill = 'lightblue') 

p3 <- wines_adjusted %>% ggplot(aes(x = fixedacidity)) + 
  geom_histogram(bins = 40, fill = 'lightblue') 

p4 <- wines_adjusted %>% ggplot(aes(x = freesulfurdioxide)) + 
  geom_histogram(bins = 40, fill = 'lightblue') 

p5 <- wines_adjusted %>% ggplot(aes(x = alcohol)) + 
  geom_histogram(bins = 40, fill = 'lightblue') 

p6 <- wines_adjusted %>% ggplot(aes(x = volatileacidity)) + 
  geom_histogram(bins = 40, fill = 'lightblue') 

p7 <- wines_adjusted %>% ggplot(aes(x = totalsulfurdioxide)) + 
  geom_histogram(bins = 40, fill = 'lightblue') 

p8 <- wines_adjusted %>% ggplot(aes(x = citricacid)) + 
  geom_histogram(bins = 40, fill = 'lightblue') 

p9 <- wines_adjusted %>% ggplot(aes(x = density)) + 
  geom_histogram(bins = 40, fill = 'lightblue') 

p10 <- wines_adjusted %>% ggplot(aes(x = pH)) + 
  geom_histogram(bins = 40, fill = 'lightblue') 

p11 <- wines_adjusted %>% ggplot(aes(x = residualsugar)) + 
  geom_histogram(bins = 40, fill = 'lightblue') 

p12 <- wines_adjusted %>% ggplot(aes(x = quality)) + 
  geom_histogram(bins = 6, fill = 'lightblue') 

multiplot(p1, p2, p3, p4, p5, p6, p7, p8, p9, p10, p11, p12, cols = 3 )
```

# Verificando a presença de _outliers_

Ao visualizar os boxplots abaixo, é possível verificar que existem inúmeros outliers, que provavelmente serão removidos para a modelagem.

```{r}
par (mfrow=c(2,2))
boxplot(wines_adjusted$chlorides, main='chlorides')
boxplot(wines_adjusted$sulphates, main='sulphates')
boxplot(wines_adjusted$fixedacidity, main='fixedacidity')
boxplot(wines_adjusted$residualsugar, main='residualsugar')
boxplot(wines_adjusted$freesulfurdioxide, main='freesulfurdioxide')
boxplot(wines_adjusted$alcohol, main='alcohol')
boxplot(wines_adjusted$volatileacidity, main='volatileacidity')
boxplot(wines_adjusted$totalsulfurdioxide, main='totalsulfurdioxide')
boxplot(wines_adjusted$quality, main='quality')
boxplot(wines_adjusted$citricacid, main='citricacid')
boxplot(wines_adjusted$density, main='density')
boxplot(wines_adjusted$pH, main='pH')
par (mfrow=c(1,1))
```

## Padronizando as variáveis

```{r}
wines_padr <- preProcess(wines_adjusted[,1:11], c("center", "scale")) %>% 
  predict(., wines_adjusted) %>% 
  data.frame(trans = .)

colnames(wines_padr) <- colnames(wines_adjusted)

str(wines_padr)
summary(wines_padr)
```

## Remoção dos _outliers_

Para a remoção dos outliers, foi utilizado o método Z-Score. Os valores com mais de 3 desvios padrões foram removidos.

```{r}
wines_padr <- wines_padr[!abs(wines_padr$chlorides) > 3,] %>%
              .[!abs(.$sulphates) > 3,] %>%
              .[!abs(.$fixedacidity) > 3,] %>%
              .[!abs(.$residualsugar) > 3,] %>%
              .[!abs(.$freesulfurdioxide) > 3,] %>%
              .[!abs(.$alcohol) > 3,] %>%
              .[!abs(.$volatileacidity) > 3,] %>%
              .[!abs(.$totalsulfurdioxide) > 3,] %>%
              .[!abs(.$citricacid) > 3,] %>%
              .[!abs(.$density) > 3,] %>%
              .[!abs(.$pH) > 3,]

str(wines_padr)
summary(wines_padr)
  
```

# Interação entre variáveis 

## Correlações

```{r}
wines_padr %>%
  select(-type) %>%
  ggcorr(method = c("pairwise","spearman"), label = FALSE, angle = -0, hjust = 0.2) +
  coord_flip()
```

```{r, fig.height=4}
wines_adjusted %>%
  select(-citricacid, -totalsulfurdioxide) %>%
  ggpairs()
```

## Gráficos de dispersão

```{r, fig.height=5}
p1 <- wines_padr %>% 
  ggplot(aes(x = density, y = alcohol, color = type)) +
   geom_point(alpha = 0.2, size = 2) +
   geom_smooth(method = 'lm')

p2 <- wines_padr %>% 
  ggplot(aes(x = density, y = fixedacidity, color = type)) +
   geom_point(alpha = 0.2, size = 2) +
   geom_smooth(method = 'lm')

p3 <- wines_padr %>% 
  ggplot(aes(x = volatileacidity, y = quality, color = type)) +
   geom_point(alpha = 0.2, size = 2) +
   geom_smooth(method = 'lm')

p4 <- wines_padr %>% 
  ggplot(aes(x = alcohol, y = quality, color = type)) +
   geom_point(alpha = 0.2, size = 2) +
   geom_smooth(method = 'lm')

p5 <- wines_padr %>% 
  ggplot(aes(x = residualsugar, y = alcohol, color = type)) +
   geom_point(alpha = 0.2, size = 2) +
   geom_smooth(method = 'lm')

p6 <- wines_padr %>% 
  ggplot(aes(x = density, y = chlorides, color = type)) +
   geom_point(alpha = 0.2, size = 2) +
   geom_smooth(method = 'lm')

multiplot(p1, p2, p3, p4, p5, p6, cols = 2 )

```

# Separação dos dados de treino e teste

Utilizarei 80% dos dados para treino, e 20% para teste.

```{r}
set.seed(32312)

train_ind <- floor(0.8 * nrow(wines_padr)) %>%
  sample(seq_len(nrow(wines_padr)), size = .)

train <- wines_padr[train_ind, ]
test <- wines_padr[-train_ind, ]
```


# Etapa 1 - Estimativa da variável **quality**

## Regressão linear

Testando a regressão linear com todas as variáveis.

### Primeira tentativa de se gerar um modelo

```{r}
lm_01 <- lm(quality ~ fixedacidity + volatileacidity
               + citricacid + residualsugar + chlorides
               + freesulfurdioxide + totalsulfurdioxide
               + density + pH + sulphates + alcohol + type, data=train)
summary(lm_01)
```

Pelos resultados acima, é possível concluir que o modelo linear é estatisticamente significante, devido o p-value ser inferior a 0,05. Entretanto há variáveis que não são significantes, e podem ser removidas.


### Segunda tentativa de se gerar um modelo

Como vimos na seção anterior, vamos remover **citricacid**, **chlorides** e **totalsulfurdioxide** e criar um novo modelo. Como vimos durante a análise exploratória, há uma correlação muito forte entre **totalsulfurdioxide** e **freesulfurdioxide**. Por esse motivo, utilizaremos somente uma delas.

```{r}
lm_02 <- lm(quality ~ fixedacidity + volatileacidity
               + residualsugar + freesulfurdioxide + density 
               + pH + sulphates + alcohol + type, data=train)
summary(lm_02)
```

Apesar de todas as variáveis independentes possuírem um baixo p-value, o nosso R-Squared se encontra um pouco baixo. Não descartarei necessariamente o modelo devido a um valor pequeno do R quadrado. Nesse caso é melhor verificar a acurácia da predição nos dados de teste.


### Análise do modelo escolhido

#### MSE

```{r}
qualityPredict <- predict(lm_02, test, interval = "prediction", level = 0.95)

mse <- mean((test$quality  - qualityPredict[,1])^2)
sqrt(mse)
```


#### Erro usando média

```{r}
erro_usando_media <- mean((test$quality  - mean(test$quality))^2)
sqrt(erro_usando_media)
```


#### Correlação entre valores reais e preditos

```{r}
actuals_preds <- data.frame(cbind(actuals=test$quality, predicteds=qualityPredict[,1]))
correlation_accuracy <- cor(actuals_preds)
correlation_accuracy
```


#### Min Max Accuracy
```{r}
min_max_accuracy <- mean(apply(actuals_preds, 1, min) / apply(actuals_preds, 1, max))
min_max_accuracy
```

#### MAPE
```{r}
mape <- mean(abs((actuals_preds$predicteds - actuals_preds$actuals))/actuals_preds$actuals)
mape
```

#### Gráfico Resíduo

É possível notar que os resíduos estão dispersos aleatoriamente em torno de zero, com variância constante.

```{r}
lm_02 %>%
  resid() %>%
  plot(predict(lm_02), ., xlab = "Preditor linear", ylab = "Residuos")
abline(h = 0, lty = 2)

lm_02 %>%
  resid() %>%
  hist(main='Histograma dos resíduos')
```

#### Distribuição normal dos erros

```{r}
qqnorm(residuals(lm_02), ylab="Resíduos",xlab="Quantis teóricos",main="")
qqline(residuals(lm_02))
```

#### Teste de Shapiro

```{r}
shapiro.test(sample(residuals(lm_02), size = 4800)) 
```

#### K-fold cross validation

```{r}
suppressWarnings(CVlm(data=wines_padr,
    form.lm = quality ~ fixedacidity + volatileacidity
               + residualsugar + freesulfurdioxide + density 
               + pH + sulphates + alcohol + type, m=5, dots=TRUE, seed=29, legend.pos="topleft",  printit=FALSE));
```

## Árvore de Regressão

Para comparar com a regressão linear, foi feito o modelo de árvore de regressão.

### Modelo

```{r, fig.height=7, fig.width = 11}
regression_tree <- rpart (quality ~ fixedacidity + volatileacidity
               + citricacid + residualsugar + chlorides
               + freesulfurdioxide + totalsulfurdioxide
               + density + pH + sulphates + alcohol + type, data=train, 
               cp = 0.001, minsplit = 15, maxdepth=15)

rpart.plot(regression_tree, type=4, extra=1, under=FALSE, clip.right.labs=TRUE,
           fallen.leaves=FALSE,   digits=2, varlen=-10, faclen=20,
           cex=0.4, tweak=1.7,
           compress=TRUE,box.palette="Grays",
           snip=FALSE)
```

### MSE

```{r}
val_pred_regression_tree <- predict(regression_tree, test, interval = "prediction", level = 0.95) 

mse_tree <- mean((test$quality  - val_pred_regression_tree)^2)
sqrt(mse_tree)
```

### Correlação entre valores reais e preditos

```{r}
actuals_preds <- data.frame(cbind(actuals=test$quality, predicteds=val_pred_regression_tree))
correlation_accuracy <- cor(actuals_preds)
correlation_accuracy
```
### Gráfico Resíduo

```{r}
rs <- val_pred_regression_tree - test$quality 
plot(predict(regression_tree, test), rs, xlab = "Com Árvore de Regressão", ylab = "Residuos")
abline(h = 0, lty = 2)

hist(rs)
```

### Distribuição dos erros aleatórios
```{r}
qqnorm(rs, ylab="Resíduos",xlab="Quantis teóricos",main="")
qqline(rs)
```

## Conclusão

Embora com resultados muito parecidos, a técnica de árvore de regressão teve uma acurácia um pouco maior. É possível que o decepcionante resultado das duas técnicas se deve ao tratamento dos vinhos tintos juntamente com os vinhos brancos. Como deu para perceber pela análise exploratória, os dois tipos de vinhos possuem algumas características físico-químicas com comportamentos diferentes.

# Etapa 2 - Categorizando vinhos "bons" e "ruins"

## Criação da variável resposta categórica

```{r}
wines_padr$good <- as.factor(ifelse(wines_padr$quality >= 6,1,0))
summary(wines_padr$good)

train <- wines_padr[train_ind, ]
test <- wines_padr[-train_ind, ]
```

## Árvore de Decisão

### Construção do modelo

```{r}
decision_tree <- rpart (train$good ~ fixedacidity + volatileacidity
                       + citricacid + residualsugar + chlorides
                       + freesulfurdioxide + totalsulfurdioxide
                       + density + pH + sulphates + alcohol + type, 
                       data = train)

fancyRpartPlot(decision_tree)

```

### Avaliando o Modelo

#### Matriz de Confusão



```{r}
decision_tree_predict <- predict(decision_tree, test, type='class')

confusion_matrix <- table(test$good, decision_tree_predict)
confusion_matrix
```

#### Acurácia

```{r}
diagonal <- diag(confusion_matrix)
Acc <-  sum(diagonal)/sum(confusion_matrix)
Acc
```

## Regressão Logística

### Primeiro Modelo

```{r}
log_01 <- glm(train$good ~ fixedacidity + volatileacidity
               + citricacid + residualsugar + chlorides
               + freesulfurdioxide + totalsulfurdioxide
               + density + pH + sulphates + alcohol + type, train, family=binomial(link=logit))

summary(log_01)
```

## Segundo Modelo

O segundo modelo foi feito removendo as variáveis que possuíam um p-value muito elevado no primeiro modelo.

```{r}
log_02 <- glm(train$good ~ fixedacidity + volatileacidity
               + citricacid + residualsugar
               + freesulfurdioxide + totalsulfurdioxide
               + density + pH + sulphates + alcohol + type, train, family=binomial(link=logit))

summary(log_02)
```

### Matriz de confusão

```{r}
logistic_regression_predict <- predict(log_02, test, type="response") %>%
  cut(., breaks=c(0,0.50,1), right=F)

MC <- table(test$good,  logistic_regression_predict , deparse.level = 2) # montar a matriz de confusão  
show(MC)
```
### Acurácia

```{r}
ACC = sum(diag(MC))/sum(MC) 
show(ACC)
```

### Gráfico ROC

```{r}
p <- predict(log_02, test, type="response")
pr <- prediction(p, test$good)
prf <- performance(pr, measure = "tpr", x.measure = "fpr")
plot(prf)

auc <- performance(pr, measure = "auc")
auc <- auc@y.values[[1]]
auc
```

## Conclusão

As técnicas de árvore de decisão e regressão logística apresentaram resultados muito similares. Em contraste com a primeira etapa, os modelos para previsão de uma variável categórica de qualidade tiveram uma acurácia muito maior.

# Etapa 3: Definir grupos de vinhos

```{r}
wines_padr <- wines_padr %>% 
  select(-quality, -good, -type)
```

## Determinação de quantidade clusters

```{r}
wss <- (nrow(wines_padr)-1)*sum(apply(wines_padr,2,var))
for (i in 2:20) wss[i] <- sum(kmeans(wines_padr,
                                     centers=i)$withinss)
plot(1:20, wss, type="b", xlab="Número de clusters",
     ylab="Soma de quadrados intra-clusters") 
```

Analisando o gráfico acima, optei por dividir os vinhos em 6 grupos distintos.

## Cluster Hierárquico

Identificando os grupos no Dendograma.

```{r}
hier_cluster <- hclust(dist(wines_padr),method='ward.D2')
d <- dist(wines_padr, method = "euclidean")
plot(hier_cluster, ylab='distancia', cex=0.6)

groups <- cutree(hier_cluster, k=6) #Identificando os 6 diferentes grupos
rect.hclust(hier_cluster, k=6, border="red") 
```



## K-Means

```{r}
set.seed(1232)
output_cluster <- kmeans(wines_padr, 6, iter=100)
output_cluster
```

```{r}
table(output_cluster$cluster)
```

Visualizando o resultado de uma forma gráfica

```{r, fig.height = 4}
plot(tkmeans(wines_padr , k = 6, alpha = 0.01))
```

## PCA

Vamos tentar reduzir o número de variáveis e verificar o impacto que isso terá na clusterização.

```{r}
acpcor_wines <- prcomp(wines_padr, scale = TRUE, retx = TRUE) 
summary(acpcor_wines)
```

```{r}
plot(1:ncol(wines_padr), acpcor_wines$sdev^2, type = "b", xlab = "Componente",
     ylab = "Variância", pch = 20, cex.axis = 0.8, cex.lab = 0.8)
```

Pelas informações acima, é possível verificar que ao optar pelos 6 primeiros componentes, obtém-se 85% da variância dos dados.

```{r}
escore1 <- acpcor_wines$x[, 1]
escore2 <- acpcor_wines$x[, 2]
escore3 <- acpcor_wines$x[, 3]
escore4 <- acpcor_wines$x[, 4]
escore5 <- acpcor_wines$x[, 5]
escore6 <- acpcor_wines$x[, 6]

wines_cpa <-cbind(escore1, escore2, escore3, escore4, escore5, escore6)

wss <- (nrow(wines_cpa)-1)*sum(apply(wines_cpa,2,var))
for (i in 2:20) wss[i] <- sum(kmeans(wines_cpa,
                                     centers=i)$withinss)
plot(1:20, wss, type="b", xlab="Number of Clusters",
     ylab="Within groups sum of squares") 
```

### K-Means com PCA
```{r}
set.seed(5425)
output_cluster_pca <- kmeans(wines_cpa, 6,iter=100)
output_cluster
```
```{r}
table(output_cluster_pca$cluster)
```

```{r, fig.height = 4}
plot(tkmeans(wines_cpa , k = 6, alpha = 0.01))
```

### Cruzando os clusters

Agora vou cruzar os resultados obtidos a partir das variáveis com os resultados obitos pelos componentes principais.

```{r}
cruzamento <- data.frame(cbind(output_cluster$cluster, output_cluster_pca$cluster))
colnames(cruzamento) <- c("sem_pca", "com_pca")
cruzamento %>%
  mutate(sem_pca = as.factor(sem_pca), com_pca = as.factor(com_pca)) %>%
  ggplot(aes(sem_pca, com_pca)) +
  geom_count(colour = "blue") +
  theme(legend.position = "bottom")

```

O count plot acima indica que, apesar de haver mudança na forma como os vinhos foram classificados, em sua maioria os agrupamentos continuaram parecidos.
